Những người Trung Quốc theo phe Hốt Tất Liệt cùng hầu hết các tướng lĩnh cấp cao Mông Cổ ở Hoa Bắc và Liêu Đông đều ủng hộ ông. Năm 1260, Hốt Tất Liệt trở lại Khanbaliq[14] và triệu tập kurultai của chính mình. Chỉ bộ phận nhỏ các thành viên hoàng tộc ủng hộ tuyên bố Hốt Tất Liệt về quyền thừa kế ngôi khả hãn, vào ngày 15 tháng 4 năm 1260.

Cuộc nội chiến giữa hai anh em nổ ra không lâu sau đó. Ở Thiểm Tây và Tứ Xuyên, quân đội cũ của Mông Kha đã hỗ trợ A Lý Bất Ca. Khi Hốt Tất Liệt phái Lian Xixian đến thảo phạt Xuyên-Thiểm, xử tử quan viên dân sự của A Lý Bất Ca là Liu Taiping và đánh bại nhiều tướng lĩnh đang dao động. Để bảo đảm mặt trận phía nam, Hốt Tất Liệt cố gắng giải quyết bằng ngoại giao và phái các sứ giả đến Hàng Châu, nhưng nhà Tống đã thất hứa và bắt giữ họ. Hốt Tất Liệt đã gửi Abishqa như một khả hãn mới đến hãn quốc Sát Hợp Đài. A Lý Bất Ca đã bắt Abishqa, hai hoàng tử khác cùng 100 người khác, rồi đưa người tâm phúc là A Lỗ Cốt (Alghu), đăng quang khả hãn của lãnh thổ Sát Hợp Đài. Trong cuộc giao tranh đầu tiên giữa A Lý Bất Ca và Hốt Tất Liệt, A Lý Bất Ca đã thua cuộc còn chỉ huy của ông là Alamdar tử trận. Để trả thù, A Lý Bất Ca đã xử tử Abishqa. Hốt Tất Liệt đã cắt nguồn cung cấp thực phẩm cho Karakorum với sự hỗ trợ của anh em họ Hợp Đan (Kadan)_ một người con trai của Oa Khoát Đài. Kinh đô Karakorum nhanh chóng rơi vào tay đại quân của Hốt Tất Liệt, nhưng sau đó A Lý Bất Ca tái chiếm tạm thời vào năm 1261, khi Hốt Tất Liệt rút đi. A Cốt Lỗ_người được A Lý Bất Ca bổ nhiệm, bất ngờ tuyên bố trung thành với Hốt Tất Liệt và đánh bại quân của A Lý Bất Ca vào năm 1263. Cuối cùng, A Lý Bất Ca đầu hàng Hốt Tất Liệt tại Thượng Đô vào ngày 21 tháng 8 năm 1264. Những người cai trị của khã hãn ở phía Tây thừa nhận chiến thắng và sự cai trị của Hốt Tất Liệt ở Mông Cổ. Khi Hốt Tất Liệt triệu tập họ đến một Kurultai mới, khả hãn Alghu yêu cầu công nhận vị trí bất hợp pháp của anh ta từ Hốt Tất Liệt. Bất chấp căng thẳng giữa họ, cả Hulagu và Berke, khả hãn của Kim Trướng, lúc đầu chấp nhận lời mời của Hốt Tất Liệt. Tuy nhiên, họ sớm từ chối tham dự Kurultai. Hốt Tất Liệt đã ân xá A Lý Bất Ca, mặc dù ông đã xử tử những người ủng hộ chính của em trai mình. Hốt Tất Liệt chính thức nắm được đại quyền trong tay sau 4 năm tranh chấp với em trai, vào năm 1264. Tuy nhiên, sự kiện này cuối cùng đã đánh dấu sự kết thúc của đế quốc Mông Cổ thống nhất. Các hãn quốc miền tây trở thành độc lập trên thực tế (de facto), và hãn Hải Đô của hãn quốc Sát Hợp Đài (Chagatai hay Sát Hợp Đài là người cai trị phần lớn khu vực Tân Cương và Trung Á ngày nay) còn tiếp tục chống đối ông cho tới tận khi ông này mất vào năm 1301.

Trong thời kỳ nội chiến với A Lý Bất Ca, tổng đốc Ích Châu là Lý Đàn đã nổi dậy chống lại sự cai trị của người Mông Cổ vào tháng 2 năm 1262. Hốt Tất Liệt đã ra lệnh cho Sử Thiên Trạch và Shi Shu đánh dẹp Lý Đàn. Hai đội quân này đánh bại cuộc nổi dậy của Lý Đàn sau vài tháng và Lý Đàn bị xử tử. Wang Wentong, cha vợ của Lý Đàn, người từng được chỉ định làm Bình chương chính sự (tiếng Trung Quốc: 平章政事) của Trung thư tỉnh (tiếng Trung: 中書省) trong giai đoạn đầu trị vì của Hốt Tất Liệt và là một trong số các quan lại người Hán được tin cậy nhất của ông, cũng bị xử tử. Sự kiện này đã làm Hốt Tất Liệt mất niềm tin vào người Hán. Sau khi trở thành hoàng đế, ông cấm chỉ việc giao các chức vụ quan trọng cho các lãnh chúa gốc Hán.